StarHarness: Evolving Harnesses with Stratified Search for Enterprise Environments
StarHarness:用分层搜索为企业环境演化 Agent Harness
🧭 Agent harness 演化 · 环境适配 ★ 深度解读
ServiceNow · Mila · Université de Montréal
提出 StarHarness,在冻结模型下分层搜索演化 Agent harness,企业基准提升 20-35pp 并可跨模型迁移
📌 工作参考价值(4 点)
- 对电商/广告/搜索推荐里的 Agent 工具链,可以不微调模型,先优化 harness(prompt、tool schema、MCP 参数预处理、subagent 结构、finish 逻辑);本文在 4-12 个 accepted patches 内拿到 20-35pp 提升,工程成本很低。
- 借鉴其分层任务池:按 baseline failure mode、task score、verifier pass rate 抽样,再把任务拆成 proposer 可见 search set、隐藏 selection set 和 held-out;能直接评估泛化、防止 harness 搜索过拟合到具体 case。
- 演化循环中加入便宜门控:scope/import/smoke 校验 + 单任务 test flip,不通过就不跑全量 selection eval;生产环境可大幅降低搜索成本。
- 实际可复用的修复类型:清理 null/empty/placeholder 参数、补充 schema 约束、把隐式业务规则写进 prompt(如 priority 与 impact/urgency 联动、保留 relationship 字段)、把日期/金额计算下沉到确定性工具;这些都适合迁移到订单、商品、营销工具等有状态业务 Agent。